ProRetrieval: Learning to Orchestrate Hybrid Search via Executable Program Synthesis
ProRetrieval:通过可执行程序合成学习编排混合检索
🧭 LLM检索编排 · 可执行程序合成 ★ 深度解读
East China Normal University · New York University · Matter Innovation Inc. · ThinRedLine · Shandong University of Science and Technology
将LLM训练为检索编排器,生成SQL+向量原语的DSL程序,4B模型在电商/邮件Hit@1超越GPT-5.5
📌 工作参考价值(4 点)
- 用 SQL 作为混合检索的融合骨架:让模型输出 sql + retrieval_list,向量检索 top-K 候选集通过 id IN <text_0>/<image_0> 占位符注入 SQL,天然支持 AND/OR/NOT 和嵌套。电商搜索/广告召回里,可以用同一套 DSL 统一编排品牌、价格、类目等结构化过滤与文本/图片向量召回,替代硬编码 RRF 或只支持 AND 的 self-query retriever。
- 小模型 + RL 比 few-shot 大模型更划算:Qwen3-4B 经 SFT + GRPO/DAPO 训练后在 DSL 检索编排上超过 GPT-5.5,执行成功 >99%,单 query 推理约 50ms。适合需要低延迟、低成本但复杂查询解析的线上检索服务,4B 部署在单张 RTX 4090 即可。
- 复杂动作空间下 SFT 存在多任务干扰,RL 是解锁多模态的关键:全 DSL SFT 反而不如只保留 SQL+text 的受限 DSL,但 RL 能让图片检索 Hit@1 从 0.323 提升到 0.716。如果业务只做结构化+文本检索,先上受限 DSL 的 SFT 即可;要加入图片召回,建议走 SFT→RL 路径。
- 分层奖励与 DAPO 稳定性值得复用:format→execution→result→length 的奖励设计天然形成隐式优先级,可以让小模型快速学会可执行程序格式;DAPO 非对称裁剪比 GRPO 更稳定,生产部署优先选 DAPO。工程上注意 SQL 转义问题(如品牌名含撇号)并加执行失败 fallback。